<html>
 <head>
  <meta charset="utf-8"/>
  <meta content="width=device-width, initial-scale=1, maximum-scale=1, user-scalable=no" name="viewport"/>
  <title>
   HaoZhiheng: LARS算法简介  | 数螺 | NAUT IDEA
  </title>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap-theme.min.css" rel="stylesheet"/>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap.min.css" rel="stylesheet"/>
  <style type="text/css">
   #xmain img {
                  max-width: 100%;
                  display: block;
                  margin-top: 10px;
                  margin-bottom: 10px;
                }

                #xmain p {
                    line-height:150%;
                    font-size: 16px;
                    margin-top: 20px;
                }

                #xmain h2 {
                    font-size: 24px;
                }

                #xmain h3 {
                    font-size: 20px;
                }

                #xmain h4 {
                    font-size: 18px;
                }


                .header {
	           background-color: #0099ff;
	           color: #ffffff;
	           margin-bottom: 20px;
	        }

	        .header p {
                  margin: 0px;
                  padding: 10px 0;
                  display: inline-block;  
                  vertical-align: middle;
                  font-size: 16px;
               }

               .header a {
                 color: white;
               }

              .header img {
                 height: 25px;
              }
  </style>
  <script src="http://cdn.bootcss.com/jquery/3.0.0/jquery.min.js">
  </script>
  <script src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=TeX-AMS-MML_HTMLorMML" type="text/javascript">
   MathJax.Hub.Config({
          tex2jax: {inlineMath: [['$','$'], ['\\(','\\)']]},
          TeX: {equationNumbers: {autoNumber: "AMS"}}
        });
  </script>
  <script src="http://nautstatic-10007657.file.myqcloud.com/static/css/readability.min.js" type="text/javascript">
  </script>
  <script type="text/javascript">
   $(document).ready(function() {
                 var loc = document.location;
                 var uri = {
                  spec: "http://cos.name/2011/04/an-introduction-to-lars/",
                  host: "http://cos.name",
                  prePath: "http://cos.name",
                  scheme: "http",
                  pathBase: "http://cos.name/"
                 };
    
                 var documentClone = document.cloneNode(true);
                 var article = new Readability(uri, documentClone).parse();
     
                 document.getElementById("xmain").innerHTML = article.content;
                });
  </script>
  <!-- 1466462745: Accept with keywords: (title(0.4):中国,统计学,算法,服务平台,门户网站, topn(0.466666666667):路径,残差,统计学,步长,条件,原文,模型,论文,绝对值,文章,方法,回归,向量,相关性,中文,变量,相关系数,楼主,问题,算法,篇文章,线性,你好,数据,R语言,逐步回归,评论,方向,步伐,二乘).-->
 </head>
 <body class="single single-post postid-3273 single-format-standard sidebar" onload="">
  <div class="header">
   <div class="container">
    <div class="row">
     <div class="col-xs-6 col-sm-6 text-left">
      <a href="/databee">
       <img src="http://nautidea-10007657.cos.myqcloud.com/logo_white.png"/>
      </a>
      <a href="/databee">
       <p>
        数螺
       </p>
      </a>
     </div>
     <div class="hidden-xs col-sm-6 text-right">
      <p>
       致力于数据科学的推广和知识传播
      </p>
     </div>
    </div>
   </div>
  </div>
  <div class="container text-center">
   <h1>
    HaoZhiheng: LARS算法简介
   </h1>
  </div>
  <div class="container" id="xmain">
   <div class="hfeed site" id="page">
    <header class="site-header" id="masthead" role="banner">
     <div id="cos-logo">
      <a href="http://cos.name/">
       <img src="http://cos.name/wp-content/themes/COS-kermesinus/images/headers/cos-logo.png"/>
      </a>
     </div>
     <div class="navbar" id="navbar">
      <nav class="navigation main-navigation" id="site-navigation" role="navigation">
       <h3 class="menu-toggle">
        菜单
       </h3>
       <a class="screen-reader-text skip-link" href="http://cos.name/2011/04/an-introduction-to-lars/#content" title="跳至内容">
        跳至内容
       </a>
       <div class="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95-container">
        <ul class="nav-menu" id="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95">
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-home menu-item-4746" id="menu-item-4746">
          <a href="http://cos.name">
           主页
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-8120" id="menu-item-8120">
          <a href="http://cos.name/cn">
           论坛
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8124" id="menu-item-8124">
            <a href="http://cos.name/cn/wp-login.php?action=register">
             论坛注册
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8125" id="menu-item-8125">
            <a href="http://cos.name/cn/wp-login.php">
             论坛登录
            </a>
           </li>
          </ul>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8110" id="menu-item-8110">
          <a href="http://cos.name/books/">
           图书资料
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8112" id="menu-item-8112">
          <a href="http://cos.name/videos">
           视频教程
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8333" id="menu-item-8333">
          <a href="http://cos.name/salon/">
           统计沙龙
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8111" id="menu-item-8111">
          <a href="http://cos.name/chinar/">
           R语言会议
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8109" id="menu-item-8109">
          <a href="http://cos.name/training/">
           讲座与培训
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8115" id="menu-item-8115">
          <a href="http://cos.name/cn/forum/comprehensive/job/">
           招聘信息
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-4780" id="menu-item-4780">
          <a href="http://cos.name/about">
           关于我们
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8113" id="menu-item-8113">
            <a href="http://cos.name/2008/11/how-to-work-with-cos/">
             加入我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8119" id="menu-item-8119">
            <a href="http://cos.name/donate/">
             赞助我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8114" id="menu-item-8114">
            <a href="http://cos.name/cn/forum/26">
             项目合作
            </a>
           </li>
          </ul>
         </li>
        </ul>
       </div>
       <form action="http://cos.name/" class="search-form" method="get" role="search">
        <label>
         <span class="screen-reader-text">
          搜索：
         </span>
        </label>
       </form>
      </nav>
      <!-- #site-navigation -->
     </div>
     <!-- #navbar -->
    </header>
    <!-- #masthead -->
    <div class="site-main" id="main">
     <div class="content-area" id="primary">
      <div class="site-content" id="content" role="main">
       <article class="post-3273 post type-post status-publish format-standard hentry category-linearmodel category-computing tag-efron tag-lars tag-lasso" id="post-3273">
        <header class="entry-header">
         <h1 class="entry-title">
          LARS算法简介
         </h1>
         <div class="entry-meta">
          <span class="date">
           <a href="http://cos.name/2011/04/an-introduction-to-lars/" rel="bookmark" title="链向LARS算法简介的固定链接">
            <time class="entry-date" datetime="2011-04-23T14:53:19+00:00">
             2011/04/23
            </time>
           </a>
          </span>
          <span class="categories-links">
           <a href="http://cos.name/category/models/linearmodel/" rel="category tag">
            回归分析
           </a>
           、
           <a href="http://cos.name/category/computing/" rel="category tag">
            统计计算
           </a>
          </span>
          <span class="tags-links">
           <a href="http://cos.name/tag/efron/" rel="tag">
            Efron
           </a>
           、
           <a href="http://cos.name/tag/lars/" rel="tag">
            lars
           </a>
           、
           <a href="http://cos.name/tag/lasso/" rel="tag">
            lasso
           </a>
          </span>
          <span class="author vcard">
           <a class="url fn n" href="http://cos.name/author/bigknife/" rel="author" title="查看所有由郝智恒发布的文章">
            郝智恒
           </a>
          </span>
         </div>
         <!-- .entry-meta -->
        </header>
        <!-- .entry-header -->
        <div class="entry-content">
         <p>
          最近临时抱佛脚，为了讨论班报告Group Regression方面的文章，研究了Efron等人于2004年发表在Annals of Statistics里一篇被讨论的文章LEAST ANGLE REGRESSION。这篇文章很长，有45页。加上后面一些模型方面大牛的讨论的文章，一共有93页。对于这种超长论文，我向来敬畏。后来因为要报告的文章里很多东西都看不懂，才回过头来研读这篇基石性的文章。
         </p>
         <p>
          所谓大牛，就是他能提出一种别人从来没有提出过的想法。大牛们看待问题的角度和常人不同。比如在回归中常用的逐步回归法。我们小辈们只知道向前回归，向后回归还有二者结合的一些最基本的想法。比如向前回归，就是先选择和响应最相关的变量，进行最小二乘回归。然后在这个模型的基础上，再选择和此时残差相关度最高的（也就是相关度次高）的变量，加入模型重新最小二乘回归。之后再如法继续，直到在某些度量模型的最优性准则之下达到最优，从而选取一个最优的变量子集进行回归分析，得到的模型是相比原模型更加简便，更易于解释的。这种方法，牺牲了模型准确性（预测有偏），但是提高了模型的精确度（方差变小）。大多数本科生对逐步回归的理解也就如此了。Efron看待这个问题时，比起常人更高了一个层次。他首先指出，逐步向前回归，有可能在第二步挑选变量的时候去掉和X1相关的，但是也很重要的解释变量。这是因为它每次找到变量，前进的步伐都太大了，侵略性太强。
         </p>
         <p>
          因此在这个基础上，Efron提出了Forward stagewise。也就是先找出和响应最相关的一个变量，找到第一个变量后不急于做最小二乘回归，而是在变量的solution path上一点一点的前进(所谓solution path是指一个方向，逐步回归是在这个方向上进行)，每前进一点，都要计算一下当前的残差和原有的所有变量的相关系数，找出绝对值最大的相关系数对应的变量。我们可以想像，刚开始，前进的步伐很小，相关系数绝对值最大的对应的变量一定还是第一步选入的变量。但是随着前进的进程不断向前，这个相关系数的绝对值是在慢慢减小的，直到找到另外一个变量X2，它和当前前残差的相关系数和第一个入选变量X1的相关系数绝对值相同，并列第一。此时把X2也加入回归模型中，此时回归模型在X1上的系数已经确定了，如果在X1的solution path上继续前进，则得到的与当前残差相关系数最大的变量一定是X2，所以不再前进，而是改为在X2的solution path上前进，直到找到第三个变量X3，使得X3的与当前残差的相关系数绝对值最大。这样一步一步进行下去。每一步都是很多小步组成。直到某个模型判定准则生效，停止这个步骤。在每一个solution path上的计算都是线性的。总体的solution path是分段线性的。这种算法是一种自动进行模型构建的方法。它和传统的Forward selection在本质上是一样的，都是选择一个变量，然后选择一个继续进行的solution path，在该方向上前进。这两种方法的solution path的选择方法是一样的，唯一的区别就是前进的步伐不一样，Forward selection的前进步伐很大，一次到头，而stagewise则是一小步一小步前进。这样比Forward selection要谨慎一些，会免于漏掉一些重要的变量。
         </p>
         <p>
          从这个视角来看，我们可以选择另外一种solution path。Efron等人在这篇文章中，就提出了一种新的solution path。在已经入选的变量中，寻找一个新的路径，使得在这个路径上前进时，当前残差与已入选变量的相关系数都是相同的。直到找出新的与当前残差相关系数最大的变量。从几何上来看，当前残差在那些已选入回归集的变量们所构成的空间中的投影，是这些变量的角平分线。下面我简单的描述一下这个算法：
         </p>
         <ul>
          <li>
           第一步，我们初始的估计模型为0，那么当前的残差就是Y,我们找出X’Y中绝对值最大的那个对应的变量，记为X1,把它加入回归模型。这一步中X’Y是当前残差和所有变量的相关系数向量。（注意这里Y都已经中心化，X中心标准化过了）。
          </li>
          <li>
           第二步，在已选的变量的solution path上前进，solution path就是s1*X1，s1是X1与当前残差的相关系数的符号。在这个path上前进，直到另外一个变量出现，使得X1与当前残差的相关系数与它和当前残差的相关系数相同。记这个变量为X2，把它加入回归模型中。
          </li>
          <li>
           第三步，找到新的solution path。Efron在文章中提出了一种找出满足LARS条件的solution path的解法。solution path需要使得已选入模型变量和当前残差的相关系数均相等。因此这样的路径选择它的方向很显然就是$X_k(X_k’X_k)^{-1}1$的指向（因为$X_k'(X_k(X_k’X_k)^{-1})1$的元素都相同，保证了LARS的要求，当然这里或许会有一些其他的解，也能满足LARS的要求，有没有达人能想到或许证明这个解是唯一的）。只要再标准化这个向量，我们便就找到了solution path的方向。在这个方向上前进，直到下一个满足与当前残差相关系数绝对值最大的变量出现。如此继续下去。
          </li>
         </ul>
         <p>
          LARS算法，保证了所有入选回归模型的变量在solution path上前进的时候，与当前残差的相关系数都是一样的。这一点，比起Forward stagewise要捷径一些，走得更快一些。
         </p>
         <p>
          LARS算法已经在SAS和R中实现了。作为回归模型选择的一种重要的算法，LARS相比起传统的Forward selection和Forward stagewise，既不那么富于侵略性，又比较走捷径。LARS算法在lasso 估计的求解中也有非常好的应用。在Efron等人的同篇论文中有详细的讨论。关于lasso和它的LARS算法，笔者将在今后的文章中介绍。
         </p>
         <p>
         </p>
         <div class="wumii-hook">
          <br/>
          <br/>
         </div>
        </div>
        <!-- .entry-content -->
        <footer class="entry-meta">
         <div class="author-info">
          <div class="author-avatar">
           <img src="http://sdn.geekzu.org/avatar/2d96292d60000df78116dd2e7169da19?s=74&amp;d=monsterid&amp;r=g"/>
          </div>
          <!-- .author-avatar -->
          <div class="author-description">
           <h2 class="author-title">
            关于郝智恒
           </h2>
           <p class="author-bio">
            南开数理统计小硕士。主攻计算机试验的设计。
            <a class="author-link" href="http://cos.name/author/bigknife/" rel="author">
             查看所有由郝智恒发表的文章
             <span class="meta-nav">
              →
             </span>
            </a>
           </p>
          </div>
          <!-- .author-description -->
         </div>
         <!-- .author-info -->
        </footer>
        <!-- .entry-meta -->
       </article>
       <!-- #post -->
       <nav class="navigation post-navigation" role="navigation">
        <h1 class="screen-reader-text">
         文章导航
        </h1>
        <div class="nav-links">
         <a href="http://cos.name/2011/04/orthogonal-experiments-and-multiple-factor-anova/" rel="prev">
          <span class="meta-nav">
           ←
          </span>
          正交试验和多因素方差分析
         </a>
         <a href="http://cos.name/2011/04/modified-lars-and-lasso/" rel="next">
          修正的LARS算法和lasso
          <span class="meta-nav">
           →
          </span>
         </a>
        </div>
        <!-- .nav-links -->
       </nav>
       <!-- .navigation -->
       <div class="comments-area" id="comments">
        <h2 class="comments-title">
         《
         <span>
          LARS算法简介
         </span>
         》有29个想法
        </h2>
        <ol class="comment-list">
         <li class="comment even thread-even depth-1" id="comment-1987">
          <article class="comment-body" id="div-comment-1987">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/66aa115466aeedf71937ff80c00b7982?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://www.road2stat.com/" rel="external nofollow">
               Xiao Nan
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-1987">
              <time datetime="2011-04-25T10:27:44+00:00">
               2011/04/25 10:27
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             再次华丽sf？
             <br/>
             文笔不错，期待续作 。。。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Xiao Nan" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=1987#respond" onclick='return addComment.moveForm( "div-comment-1987", "1987", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment byuser comment-author-yixuanq odd alt thread-odd thread-alt depth-1 parent" id="comment-1988">
          <article class="comment-body" id="div-comment-1988">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/f09663fd5fc04bad5e5b09daddb86fe6?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              邱怡轩
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-1988">
              <time datetime="2011-04-26T09:22:23+00:00">
               2011/04/26 09:22
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             在没征求同意的情况下直接帮你修改了几个错别字。:)
             <br/>
             几点建议，可能会让没有接触过LARS的人更快理解它：
             <br/>
             1、可以对文中反复出现的solution path进行一些解释。普通的回归求解系数时都是“一步到位”的，而LARS中是一种“搜索”的思想，因此才会有路径的概念；
             <br/>
             2、可以对LARS的第三步再多一些解释，比如[latex]X_k[/latex]的含义，还有为什么“显然”等。可能是我一直比较迟钝，读论文的时候作者说显然成立的我一般都看不懂。:D
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给邱怡轩" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=1988#respond" onclick='return addComment.moveForm( "div-comment-1988", "1988", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-bigknife bypostauthor even depth-2 parent" id="comment-1993">
            <article class="comment-body" id="div-comment-1993">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/2d96292d60000df78116dd2e7169da19?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                郝智恒
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-1993">
                <time datetime="2011-04-26T16:30:45+00:00">
                 2011/04/26 16:30
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               非常感谢你的建议。我已经相应做了改动。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给郝智恒" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=1993#respond" onclick='return addComment.moveForm( "div-comment-1993", "1993", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment odd alt depth-3" id="comment-2659">
              <article class="comment-body" id="div-comment-2659">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/7059af52274d6d5fd3ef268d42948d5f?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  Orchid
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2659">
                  <time datetime="2011-12-28T16:15:29+00:00">
                   2011/12/28 16:15
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 你好，我现在临时要用LARS分析一组数据，有个问题不明白，特来请教：
                 <br/>
                 Efron的论文中说变量之间要线性独立，这个条件是必须的吗。我的数据现在是
                 <br/>
                 各个变量之间存在较高的Pearson相关性，如果直接套用LARS，这种相关性对回归结果有什么影响？
                 <br/>
                 谢谢，期待得到回答
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
             <li class="comment even depth-3" id="comment-2661">
              <article class="comment-body" id="div-comment-2661">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/600eca03d03f5c7ef1c423584fda8f82?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  贾元乔
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2661">
                  <time datetime="2011-12-28T22:40:31+00:00">
                   2011/12/28 22:40
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 如果变量之间的想关心较高的话，Lars倾向于只选择这些相关变量中的一条变量，但是有些经济模型明知道，几个变量是相关的还是要加到模型中时，可以用Zou的elastic net来解决这个问题
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment byuser comment-author-yihui odd alt thread-even depth-1 parent" id="comment-1989">
          <article class="comment-body" id="div-comment-1989">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/1022d8e6ebc94e8f6bca9a86cebe312a?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://yihui.name" rel="external nofollow">
               谢益辉
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-1989">
              <time datetime="2011-04-26T11:22:13+00:00">
               2011/04/26 11:22
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             我一直believe不必要的中文与English mixed up是writing的一大恶习，but太多太多people坚持to write like this，似乎already成为一种popular style。在你的article中大多数English words都可以replace为相应的Chinese词。你的opinion如何？
            </p>
            <p>
             BTW，文章是好文，赞之。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给谢益辉" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=1989#respond" onclick='return addComment.moveForm( "div-comment-1989", "1989", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-bigknife bypostauthor even depth-2 parent" id="comment-1994">
            <article class="comment-body" id="div-comment-1994">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/2d96292d60000df78116dd2e7169da19?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                郝智恒
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-1994">
                <time datetime="2011-04-26T16:37:44+00:00">
                 2011/04/26 16:37
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               哈哈，你的建议我太赞同了。本人其实一直也有此看法，没想到自己写出来居然也成了这样。我已经把一些英文单词转为了中文。但是一些专有的名词我还是保留了比如solution path，一方面是感觉自己翻译的不太恰当，另外一方面我想可能对于读过原文的人来说，会有更加熟悉的感觉吧。
               <br/>
               ps：哈哈，谢大侠您真是太幽默了哈。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给郝智恒" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=1994#respond" onclick='return addComment.moveForm( "div-comment-1994", "1994", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment byuser comment-author-yihui odd alt depth-3" id="comment-1996">
              <article class="comment-body" id="div-comment-1996">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/1022d8e6ebc94e8f6bca9a86cebe312a?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  <a class="url" href="http://yihui.name" rel="external nofollow">
                   谢益辉
                  </a>
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-1996">
                  <time datetime="2011-04-27T11:36:23+00:00">
                   2011/04/27 11:36
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 我松了一口气……我原来还有点担心我这样说是与广大人民群众为敌，因为我个人实在是受不了半中不英的写法，而这年头你放眼望去遍地都是这样的混血文字，我一直好奇难道这些打字的人不嫌输入法切换麻烦吗？要用哪种语言就好好用，没必要写得仿佛在异国他乡呆了很多年中文都讲不流利似的（口语也一样）。我感觉现在我们的写作能力在下降，这是不行滴，期待你在这里好好锻炼。
                </p>
                <p>
                 solution path如果国内没有翻译的话，我觉得不妨译为“求解路径”；stepwise已经翻译为逐步，那么stagewise可译为逐段；当你引入一个别人不熟悉的新名词时，通常可以用括号标注一下相应的英文用词，这也是写作的常用习惯。
                </p>
                <p>
                 跑题至此结束。
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
           <li class="comment even depth-2" id="comment-7197">
            <article class="comment-body" id="div-comment-7197">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/255c889bee1cd35c6a2e392ec76e82ac?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                陈攀攀
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-7197">
                <time datetime="2016-04-27T15:27:51+00:00">
                 2016/04/27 15:27
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               大神都在读这东西。。。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给陈攀攀" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=7197#respond" onclick='return addComment.moveForm( "div-comment-7197", "7197", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-2025">
          <article class="comment-body" id="div-comment-2025">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/c5726d6b3db47bb100acf247ddcf0516?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              susu
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2025">
              <time datetime="2011-04-28T17:50:10+00:00">
               2011/04/28 17:50
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             谢谢介绍！请问这是回归方法中比较新的进展么？看到有些文章中，先是回归一堆变量，然后去掉不相关的再回归，再继续。这里介绍的方法是不是常规方法的一种更好的改进呢？
             <br/>
             比较外行，请教各位！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给susu" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2025#respond" onclick='return addComment.moveForm( "div-comment-2025", "2025", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment even depth-2" id="comment-2056">
            <article class="comment-body" id="div-comment-2056">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/72a14ffe758f696a74fc401327303449?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://weibo.com/myprofile.php?gid=221103110123828362" rel="external nofollow">
                 任毅
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2056">
                <time datetime="2011-05-08T14:53:26+00:00">
                 2011/05/08 14:53
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               你好，小本认为你所说的常规方法就是逐步回归，也就是stepwise，这里的LAR确实是比较好的一种“改进”方法，至少我听起来用类似向量夹角的方法，来选择最相关的变量或者因子来回归，确实比较有理。
               <br/>
               另外，stepwise似乎是每步都要做一次假设检验的。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给任毅" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2056#respond" onclick='return addComment.moveForm( "div-comment-2056", "2056", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1 parent" id="comment-2083">
          <article class="comment-body" id="div-comment-2083">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/81ef8a48a2cde60cadfa924cbdf454ae?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              柴昊
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2083">
              <time datetime="2011-05-12T11:33:33+00:00">
               2011/05/12 11:33
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             我读起来很多中文词都费劲啊，还是比较prefer将一些基本概念的词保留英文的。BTW，这篇文章激起了让我想要去读一下这个93页论文的兴趣，估计也能醍醐灌顶的对model selection和regression有个更深层的认识。好文！虽然我还是没弄明白你的那个solution path的path是怎么回事
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给柴昊" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2083#respond" onclick='return addComment.moveForm( "div-comment-2083", "2083", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-yihui even depth-2 parent" id="comment-2085">
            <article class="comment-body" id="div-comment-2085">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/1022d8e6ebc94e8f6bca9a86cebe312a?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://yihui.name" rel="external nofollow">
                 谢益辉
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2085">
                <time datetime="2011-05-12T11:45:07+00:00">
                 2011/05/12 11:45
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               参见三楼的回复。若有不熟悉的词汇，可以翻译并用括号标注相应的英文。
              </p>
              <p>
               比如prefer写成“倾向于”又会怎样？BTW写成“另外”又如何？等等。真的不嫌中英文输入法切换麻烦吗？还是真的已经在异国他乡呆了半个世纪……
              </p>
              <p>
               本文若能激起读者对原文的兴趣，也是一种成功了。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给谢益辉" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2085#respond" onclick='return addComment.moveForm( "div-comment-2085", "2085", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment odd alt depth-3" id="comment-2087">
              <article class="comment-body" id="div-comment-2087">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/81ef8a48a2cde60cadfa924cbdf454ae?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  柴昊
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2087">
                  <time datetime="2011-05-12T12:15:12+00:00">
                   2011/05/12 12:15
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 看到了，我自己觉得语言的目的就是方便沟通，只要大家方便就好，我第一次留言，试一下水深而已，真没有别的意思。话说听说上次你来爱荷华城了
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
             <li class="comment byuser comment-author-yihui even depth-3" id="comment-2088">
              <article class="comment-body" id="div-comment-2088">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/1022d8e6ebc94e8f6bca9a86cebe312a?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  <a class="url" href="http://yihui.name" rel="external nofollow">
                   谢益辉
                  </a>
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2088">
                  <time datetime="2011-05-12T12:18:55+00:00">
                   2011/05/12 12:18
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 “来”？呵呵，原来你在那旮旯啊？暑假期间欢迎来我们这边的村子玩！
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-2610">
          <article class="comment-body" id="div-comment-2610">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/ab344ccde574235eae417a610d53e809?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              曹芳
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2610">
              <time datetime="2011-12-01T20:15:54+00:00">
               2011/12/01 20:15
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             我看过原文，看得很晕，看了您的解说有了近一步的理解，请问lasso的解如何编程得到呢，解路径要怎样画出呢？请帮帮忙哦
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给曹芳" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2610#respond" onclick='return addComment.moveForm( "div-comment-2610", "2610", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1 parent" id="comment-2660">
          <article class="comment-body" id="div-comment-2660">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/7059af52274d6d5fd3ef268d42948d5f?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              Orchid
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2660">
              <time datetime="2011-12-28T16:16:44+00:00">
               2011/12/28 16:16
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             你好，我是计算机专业的，数学基础不是很好，我现在临时要用LARS分析一组数据，有个问题不明白，特来请教：
             <br/>
             Efron的论文中说变量之间要线性独立，这个条件是必须的吗。我的数据现在是
             <br/>
             各个变量之间存在较高的Pearson相关性，如果直接套用LARS，这种相关性对回归结果有什么影响？
             <br/>
             谢谢，期待得到这里高手回答
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Orchid" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2660#respond" onclick='return addComment.moveForm( "div-comment-2660", "2660", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment odd alt depth-2 parent" id="comment-3415">
            <article class="comment-body" id="div-comment-3415">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/849025cc95c630627b5f394a7923f506?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                Cheung
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-3415">
                <time datetime="2012-11-03T16:23:30+00:00">
                 2012/11/03 16:23
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               原始LARS是需要这个条件的，但可以使用LARS-EN
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给Cheung" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=3415#respond" onclick='return addComment.moveForm( "div-comment-3415", "3415", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment even depth-3" id="comment-3452">
              <article class="comment-body" id="div-comment-3452">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/80cb318367934f48a25e8bfb1e975012?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  嚼茶
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-3452">
                  <time datetime="2012-11-13T21:19:32+00:00">
                   2012/11/13 21:19
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 请问lars_en是什么？
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-2662">
          <article class="comment-body" id="div-comment-2662">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/600eca03d03f5c7ef1c423584fda8f82?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              贾元乔
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2662">
              <time datetime="2011-12-28T22:43:27+00:00">
               2011/12/28 22:43
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             LZ,非常有幸这个版块看到你对LARS这一系列的理解，我有个疑问，在做lasso，在什么条件下的解是唯一的呢？？因为我最近注意到当X1=X2时，lasso会产生不是唯一的解，请帮我解释一下可以吗？或者提供一下唯一解的条件的论文，可以吗？？谢谢
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给贾元乔" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2662#respond" onclick='return addComment.moveForm( "div-comment-2662", "2662", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-2664">
          <article class="comment-body" id="div-comment-2664">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/600eca03d03f5c7ef1c423584fda8f82?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              King-jia
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2664">
              <time datetime="2011-12-28T22:59:28+00:00">
               2011/12/28 22:59
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             我刚才的评论怎么没有了，楼主，你好，我想问下，lasso在什么条件的解是唯一的呢？最近看到当变量X1=X2时，会出现解不唯一的现象！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给King-jia" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2664#respond" onclick='return addComment.moveForm( "div-comment-2664", "2664", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-2686">
          <article class="comment-body" id="div-comment-2686">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/fc72eb00ace85ca6863273bef77bf064?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              run
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-2686">
              <time datetime="2012-02-14T14:00:53+00:00">
               2012/02/14 14:00
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             楼主的文章写的非常好，LARS的基本思想将的很清楚。Efron这篇文章我也拜读过几遍，但其间关于如何求solution path的方向以及步长，似乎并不透彻。楼主如果能结合几何特征讲解下这两个关键点就更好了:)
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给run" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=2686#respond" onclick='return addComment.moveForm( "div-comment-2686", "2686", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment byuser comment-author-eeyangc even thread-even depth-1 parent" id="comment-3081">
          <article class="comment-body" id="div-comment-3081">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/d142729427ecc897f7d832a4b62f80f4?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              eeyangc
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-3081">
              <time datetime="2012-05-26T10:29:42+00:00">
               2012/05/26 10:29
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             “Efron提出了Forward stagewise”，这个是概念性错误。Forward Stagewise Regression 应该归功于Friedman，源于Gradient Boosting。LARS的几何意义可以结合凸优化来理解。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给eeyangc" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=3081#respond" onclick='return addComment.moveForm( "div-comment-3081", "3081", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment odd alt depth-2" id="comment-3089">
            <article class="comment-body" id="div-comment-3089">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/2d96292d60000df78116dd2e7169da19?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                bigknife
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-3089">
                <time datetime="2012-05-28T12:06:23+00:00">
                 2012/05/28 12:06
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               拜见大神!多谢指点。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给bigknife" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=3089#respond" onclick='return addComment.moveForm( "div-comment-3089", "3089", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-3453">
          <article class="comment-body" id="div-comment-3453">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/80cb318367934f48a25e8bfb1e975012?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              嚼茶
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-3453">
              <time datetime="2012-11-13T21:28:24+00:00">
               2012/11/13 21:28
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             还想问几个问题，
             <br/>
             1、这些变量找出来以后再做一次最小二乘么？还只可以直接通过每一步得到的步长r算出来对应各个变量的系数改变量？已知在角分线ua上边的长度是r了，怎么确定其他边的步长呢？
             <br/>
             2、是不是应该每一步求得的步长r是越来越小的呢？我的结果乱七八糟的
             <br/>
             谢谢~
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给嚼茶" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=3453#respond" onclick='return addComment.moveForm( "div-comment-3453", "3453", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1 parent" id="comment-5007">
          <article class="comment-body" id="div-comment-5007">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/624d87b7a22b142cc0f928967d7c7b3a?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              TK
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-5007">
              <time datetime="2013-10-30T07:46:23+00:00">
               2013/10/30 07:46
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             我个人实在是受不了翻译成中文的写法，比如当我看到最小二乘，愣了一下，看到响应，又愣了一下。。。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给TK" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=5007#respond" onclick='return addComment.moveForm( "div-comment-5007", "5007", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment even depth-2" id="comment-5132">
            <article class="comment-body" id="div-comment-5132">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/fd6964ed425d626628bd057abbe6a85b?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://yihui.name" rel="external nofollow">
                 谢益辉
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-5132">
                <time datetime="2013-11-25T14:38:42+00:00">
                 2013/11/25 14:38
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               看到“最小二乘”能愣一下的话，要么你出国才学统计，要么你出国很多年了，因为在国内的统计教育里最小二乘是非常基础的词汇。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给谢益辉" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=5132#respond" onclick='return addComment.moveForm( "div-comment-5132", "5132", "respond", "3273" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-6077">
          <article class="comment-body" id="div-comment-6077">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://www.douban.com/people/72304246/" rel="external nofollow">
               sjtuyc
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-6077">
              <time datetime="2014-07-25T15:10:41+00:00">
               2014/07/25 15:10
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             收藏
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给sjtuyc" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=6077#respond" onclick='return addComment.moveForm( "div-comment-6077", "6077", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-6170">
          <article class="comment-body" id="div-comment-6170">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/1640216f3a87c923f20de977cd746338?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              小朋
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2011/04/an-introduction-to-lars/#comment-6170">
              <time datetime="2014-08-18T20:58:36+00:00">
               2014/08/18 20:58
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             不错~
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给小朋" class="comment-reply-link" href="http://cos.name/2011/04/an-introduction-to-lars/?replytocom=6170#respond" onclick='return addComment.moveForm( "div-comment-6170", "6170", "respond", "3273" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
        </ol>
        <!-- .comment-list -->
        <div class="comment-respond" id="respond">
         <h3 class="comment-reply-title" id="reply-title">
          发表评论
          <small>
           <a href="http://cos.name/2011/04/an-introduction-to-lars/#respond" id="cancel-comment-reply-link" rel="nofollow" style="display:none;">
            取消回复
           </a>
          </small>
         </h3>
         <form action="http://cos.name/wp-comments-post.php" class="comment-form" id="commentform" method="post" novalidate="">
          <p class="comment-notes">
           <span id="email-notes">
            电子邮件地址不会被公开。
           </span>
           必填项已用
           <span class="required">
            *
           </span>
           标注
          </p>
          <p class="comment-form-comment">
           <label for="comment">
            评论
           </label>
           <textarea aria-required="true" cols="45" id="comment" maxlength="65525" name="comment" required="required" rows="8">
           </textarea>
          </p>
          <p class="comment-form-author">
           <label for="author">
            姓名
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-email">
           <label for="email">
            电子邮件
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-url">
           <label for="url">
            站点
           </label>
          </p>
          <p class="form-submit">
          </p>
          <p style="display: none;">
          </p>
          <p style="display: none;">
          </p>
         </form>
        </div>
        <!-- #respond -->
       </div>
       <!-- #comments -->
      </div>
      <!-- #content -->
     </div>
     <!-- #primary -->
     <div class="sidebar-container" id="tertiary" role="complementary">
      <div class="sidebar-inner">
       <div class="widget-area">
        <aside class="widget widget_text" id="text-3">
         <h3 class="widget-title">
          关注统计之都
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            新浪微博
            <a href="http://weibo.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            人人网
            <a href="http://renren.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            Twitter
            <a href="http://twitter.com/cos_name">
             @cos_name
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-6">
         <h3 class="widget-title">
          微信公众平台
         </h3>
         <div class="textwidget">
          <img src="http://cos.name/wp-content/uploads/2013/04/qrcode-8cm.jpg"/>
          <p style="font-size:12px;margin-left:15px">
           微信号 CapStat
          </p>
          <p>
           我们将第一时间向您推送主站和论坛的精彩内容，以及统计之都的线下活动、竞赛、培训和会议信息。
          </p>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-8">
         <h3 class="widget-title">
          站内导航
         </h3>
         <div class="textwidget">
          <ul>
           <li class="page_item">
            <a href="http://cos.name/cn/">
             中文论坛
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/videos/">
             视频
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/salon/">
             统计沙龙
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/books/">
             图书出版
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/training/">
             教育培训
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/about/">
             关于我们
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/donate/">
             捐赠
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/chinar/">
             R语言会议
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_links" id="linkcat-2">
         <h3 class="widget-title">
          友情链接
         </h3>
         <ul class="xoxo blogroll">
          <li>
           <a href="http://stat.ruc.edu.cn" target="_blank" title="中国人民大学统计学院网站">
            中国人民大学统计学院
           </a>
          </li>
          <li>
           <a href="http://rucdmc.net">
            中国人民大学数据挖掘中心
           </a>
          </li>
          <li>
           <a href="http://birc.gsm.pku.edu.cn/" target="_blank">
            北京大学商务智能研究中心
           </a>
          </li>
          <li>
           <a href="http://sam.cufe.edu.cn/" target="_blank" title="中央财经大学统计与数学学院网站">
            中央财经大学统计与数学学院
           </a>
          </li>
          <li>
           <a href="http://tjx.cueb.edu.cn/" target="_blank" title="首都经济贸易大学统计学院网站">
            首经贸统计学院
           </a>
          </li>
          <li>
           <a href="http://www.shookr.com/">
            数客网大数据社区
           </a>
          </li>
          <li>
           <a href="http://www.xueqing.tv/" target="_blank" title="数据科学在线学习平台">
            雪晴数据网
           </a>
          </li>
          <li>
           <a href="http://iera.name/" target="_blank" title="IERA是一个旨在普及、传播和增进工业工程知识的非营利性网站">
            IERA（直通IE）
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_categories" id="categories-2">
         <h3 class="widget-title">
          全部分类
         </h3>
         <label class="screen-reader-text" for="cat">
          全部分类
         </label>
         <select class="postform" id="cat" name="cat">
          <option value="-1">
           选择分类目录
          </option>
          <option class="level-0" value="925">
           cos访谈  (4)
          </option>
          <option class="level-0" value="659">
           图书出版  (5)
          </option>
          <option class="level-0" value="379">
           数学方法  (14)
          </option>
          <option class="level-1" value="381">
           分析与代数  (1)
          </option>
          <option class="level-1" value="380">
           概率论  (9)
          </option>
          <option class="level-1" value="382">
           随机过程  (5)
          </option>
          <option class="level-0" value="210">
           数据分析  (81)
          </option>
          <option class="level-1" value="203">
           多元统计  (3)
          </option>
          <option class="level-1" value="42">
           数据挖掘与机器学习  (42)
          </option>
          <option class="level-1" value="36">
           生物与医学统计  (17)
          </option>
          <option class="level-1" value="35">
           计量经济学  (4)
          </option>
          <option class="level-1" value="296">
           金融统计  (3)
          </option>
          <option class="level-1" value="303">
           风险精算  (7)
          </option>
          <option class="level-0" value="177">
           模型专题  (15)
          </option>
          <option class="level-1" value="38">
           回归分析  (10)
          </option>
          <option class="level-1" value="41">
           时间序列  (2)
          </option>
          <option class="level-0" value="784">
           每周精选  (24)
          </option>
          <option class="level-1" value="183">
           可视化  (9)
          </option>
          <option class="level-0" value="967">
           沙龙纪要  (3)
          </option>
          <option class="level-0" value="18">
           经典理论  (46)
          </option>
          <option class="level-1" value="37">
           抽样调查  (3)
          </option>
          <option class="level-1" value="4">
           统计推断  (26)
          </option>
          <option class="level-1" value="236">
           试验设计  (7)
          </option>
          <option class="level-1" value="39">
           非参数统计  (3)
          </option>
          <option class="level-0" value="1">
           统计之都  (279)
          </option>
          <option class="level-1" value="884">
           中国R会议  (2)
          </option>
          <option class="level-1" value="885">
           中国R语言会议  (5)
          </option>
          <option class="level-1" value="446">
           出国留学  (3)
          </option>
          <option class="level-1" value="179">
           推荐文章  (90)
          </option>
          <option class="level-1" value="3">
           新闻通知  (75)
          </option>
          <option class="level-1" value="263">
           统计刊物  (10)
          </option>
          <option class="level-1" value="174">
           网站导读  (40)
          </option>
          <option class="level-1" value="204">
           职业事业  (51)
          </option>
          <option class="level-1" value="213">
           高校课堂  (9)
          </option>
          <option class="level-0" value="178">
           统计计算  (28)
          </option>
          <option class="level-1" value="40">
           优化与模拟  (15)
          </option>
          <option class="level-1" value="43">
           贝叶斯方法  (6)
          </option>
          <option class="level-0" value="378">
           软件应用  (116)
          </option>
          <option class="level-1" value="44">
           统计图形  (36)
          </option>
          <option class="level-1" value="110">
           统计软件  (83)
          </option>
         </select>
        </aside>
        <aside class="widget widget_recent_comments" id="recent-comments-2">
         <h3 class="widget-title">
          最新评论
         </h3>
         <ul id="recentcomments">
          <li class="recentcomments">
           <span class="comment-author-link">
            fineboom
           </span>
           发表在《
           <a href="http://cos.name/2016/06/use-shiny-fleetly-set-up-visual-prototype-system/#comment-7317">
            利用shiny包快速搭建可视化原型系统
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            胡家新
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7316">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://www.zijiacha.com/category.php?id=6" rel="external nofollow">
             南糯山普洱茶
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7315">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            J
           </span>
           发表在《
           <a href="http://cos.name/2016/05/value-of-the-reputation-from-the-data/#comment-7314">
            数据告诉你：高信誉的卖家应该收高价，还是收低价？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://gg" rel="external nofollow">
             Hilda
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2013/01/drawing-map-in-r-era/#comment-7311">
            R时代，你要怎样画地图？
           </a>
           》
          </li>
         </ul>
        </aside>
        <aside class="widget widget_rss" id="rss-282869971">
         <h3 class="widget-title">
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           <img src="http://cos.name/wp-includes/images/rss.png"/>
          </a>
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           中文论坛新帖
          </a>
         </h3>
         <ul>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417372/">
            处理时间数据和产生时间序列的问题
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/6790/">
            《统计陷阱》下载 （How to lie with statistics）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/818/">
            统计学的世界（第五版）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/16574/">
            class(x) 返回值值是AsIs,AsIs代表什么，有什么用处？
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417366/">
            如何用R绘制一个分类算法的决策规则
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_text" id="text-2">
         <h3 class="widget-title">
          登录/RSS
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            <a href="http://cos.name/wp-admin/">
             登录
            </a>
           </li>
           <li>
            <a href="http://cos.name/feed/" title="使用 RSS 2.0 同步站点内容">
             文章
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
           <li>
            <a href="http://cos.name/comments/feed/" title="RSS 上的最近评论">
             评论
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
          </ul>
         </div>
        </aside>
       </div>
       <!-- .widget-area -->
      </div>
      <!-- .sidebar-inner -->
     </div>
     <!-- #tertiary -->
    </div>
    <!-- #main -->
    <footer class="site-footer" id="colophon" role="contentinfo">
     <div class="site-info">
      版权所有 © 2014 统计之都 | 由
      <a href="http://wordpress.org/">
       WordPress
      </a>
      构建 | 主题修改自
      <a href="http://wordpress.org/themes/twentythirteen">
       Twenty Thirteen
      </a>
     </div>
     <!-- .site-info -->
    </footer>
    <!-- #colophon -->
   </div>
   <!-- #page -->
   <p style="margin:0;padding:0;height:1px;overflow:hidden;">
    <a href="http://www.wumii.com/widget/relatedItems" style="border:0;">
     <img src="http://static.wumii.cn/images/pixel.png"/>
    </a>
   </p>
  </div>
 </body>
</html>